Tháng 6 năm 1991 tại Đại hội đại biểu toàn quốc lần thứ VII của Đảng, Lê Khả Phiêu được bầu là Ủy viên Ban Chấp hành Trung ương Đảng. Về phía quân đội, ông giữ chức Ủy viên Thường vụ Đảng ủy Quân sự Trung ương.

Tháng 6 năm 1992 tại Hội nghị Ban Chấp hành Trung ương lần thứ 13 của Đảng, Lê Khả Phiêu được bầu vào Ban Bí thư Trung ương Đảng.

Tháng 1 năm 1994, tại Hội nghị đại biểu toàn quốc giữa nhiệm kỳ Đảng Cộng sản Việt Nam, ông được Ban Chấp hành Trung ương Đảng khoá VII bầu vào Bộ Chính trị.

Tháng 4 năm 1996 Lê Khả Phiêu được phân công làm Thường trực Ban Bí thư Ban Chấp hành Trung ương Đảng Cộng sản Việt Nam thay Nguyễn Hà Phan bị kỷ luật.[1]

Tại Đại hội Đại biểu toàn quốc khoá VIII Đảng Cộng sản Việt Nam (tháng 6 năm 1996), ông được bầu làm Uỷ viên Ban Thường vụ Bộ Chính trị, Thường trực Bộ Chính trị Ban Chấp hành Trung ương Đảng Cộng sản Việt Nam, Trưởng Ban Bảo vệ Chính trị Nội bộ Trung ương.

Ngày 26 tháng 12 năm 1997 tại Hội nghị Trung ương lần thứ 4 Ban Chấp hành Trung ương Đảng (khoá VIII), Lê Khả Phiêu được bầu giữ chức vụ Tổng Bí thư Ban Chấp hành Trung ương Đảng Cộng sản Việt Nam, thay người tiền nhiệm là Đỗ Mười quyết định hưu trí. Cùng ngày, ông cũng là Bí thư Quân ủy Trung ương (Việt Nam).

Tháng 10 năm 2006, Lê Khả Phiêu chính thức dừng tất cả các nhiệm vụ của mình và nghỉ hưu trí theo chế độ.